Đại học Aarhus được thành lập bởi Quyết định của một ủy ban nghiên cứu do bộ trưởng Bộ Giáo dục Đan Mạch thời đó lập năm 1919[1]. Sau 6 năm, ủy ban này mới đưa ra quyết định chọn thành phố Aarhus để lập trường đại học thứ hai, vì Aarhus có nhiều điều kiện thuận lợi hơn các thành phố khác. Trường được thành lập do sáng kiến của tư nhân, với tên Universitetsundervisningen i Jylland (Giáo dục đại học ở Jutland). Trường được khai giảng ngày 11 tháng 9 năm 1928 với 64 sinh viên, 14 sinh viên khác ghi danh tiếp theo trong học kỳ 3 tháng thứ nhất[2]. Lúc khai giảng, trường phải mượn các phòng học của Trường Kỹ thuật Aarhus. Vấn đề tài chính dựa vào ngân khoản 33.000 DKK (thời đó) do thị xã Aarhus tài trợ. Các giáo trình đầu tiên là văn học và ngôn ngữ. Ban giảng huấn ban đầu chỉ có 1 giáo sư và 4 giảng viên dạy tiếng Đan Mạch, tiếng Anh, tiếng Đức và tiếng Pháp. Năm 1934 phân khoa Nhân văn được Nhà nước công nhận và trợ cấp. Năm 1936 thành lập phân khoa Luật học và Kinh tế, năm 1942 lập phân khoa Thần học, năm 1954 lập phân khoa Khoa học tự nhiên. Đại học Aarhus là đại học tư thục, tự quản, tới năm 1970 mới trở thành đại học công lập. Năm 2003, trường lại có qui chế tự trị.

Trong Chiến tranh thế giới thứ hai, cơ quan Gestapo của Đức quốc xã đặt tổng hành dinh của vùng Jutland tại trường. Theo yêu cầu của Phong trào Kháng chiến, Không lực Hoàng gia Anh đã ném bom tổng hành dinh này ngày 31 tháng 10 năm 1944, gây thiệt hại lớn cho tòa nhà chính và 2 nhà cư xá sinh viên bị hoàn toàn phá sập. Ngày nay còn bảng tưởng niệm 10 công nhân thiệt mạng trong trận ném bom này cùng 2 công nhân khác thiệt mạng khi xây dựng tòa nhà chính, ngày 22 tháng 9 năm 1941.